Âm vị tiếng Hán thượng cổ đã được tái dựng dựa trên nhiều bằng chứng, bao gồm Hán tự ký âm, cách thức gieo vần trong Kinh Thi và cách đọc tiếng Hán trung cổ trong các tác phẩm như Thiết Vận (601 CN). Mặc dù nhiều chi tiết vẫn đang bị tranh cãi, các phục nguyên gần đây đã thống nhất về các vấn đề cốt lõi.[38] Ví dụ sau đây là các phụ âm đầu được Lý Phương Quế và William Baxter công nhận, với vài bổ sung (chủ yếu của Baxter) được đóng ngoặc đơn:[39][40][41]

Nhiều tổ hợp âm đầu đã được đề xuất, nhất là cụm *s- + một phụ âm khác, nhưng vẫn chưa có đồng thuận về vấn đề này.[43]

Bernhard Karlgren và nhiều học giả sau này để xuất tiếng Hán thượng cổ sở hữu các phụ âm giữa *-r-, *-j- và *-rj- để giải thích âm quặt lưỡi (retroflex), âm ồn (obstruent), và nhiều sự tương phản nguyên âm xuất hiện ở tiếng Hán trung cổ.[44] Âm *-r- và sự tương phản âm biểu thị bởi *-j- hầu như được chấp nhận, tuy nhiên, cách thực hiện (realization) lướt vòm (palatal glide) của *-j- còn là đề tài tranh cãi. Nhiều cách thực hiện khác được sử dụng trong các phục nguyên gần đây.[45][46]

Các phục nguyên kể từ thập niên 80 trở đi thường đề xuất 6 nguyên âm sau đây:[47][lower-alpha 4][lower-alpha 5]

Nguyên âm có thể được theo sau bởi các âm kết giống tiếng Hán trung cổ: *-j hoặc *-w lướt; *-m , *-n hoặc *-ŋ mũi; *-p, *-t hoặc *-k dừng. Một số học giả đề xuất thêm âm kết *-kʷ môi-vòm mềm.[51] Hiện nay, giới chuyên gia cho rằng tiếng Hán thượng cổ không có thanh điệu hiện hữu ở các ngôn ngữ hậu duệ, nhưng có các hậu-kết âm như *-ʔ và *-s, diễn tiến lần lượt thành thanh thượng (rising tone) và thanh khứ (departing tone) của tiếng Hán trung cổ.[52]